GPU 架构 面试题
共 2 篇真实面经 · 涵盖 腾讯(混元) / 快手 等 2 家公司
腾讯混元 AI Infra 二面:三代 GPU 架构、Cache-Aware 路由与 W4A4 稀疏算子
腾讯混元 AI Infra 二面全部围绕自研推理栈:先对比 Ampere、Hopper、Blackwell 三代架构的 TMA、Tensor Memory 与低比特支持,再追问 WGMMA 与 UMMA 的指令级差异、Cache-Aware 路由的评分与调参、TILE Cache 系统仿真,最后落到 W4A4 稀疏算子的实现细节,并现场手写带工程优化的 Softmax。
快手 AI Infra 一面面经:Attention 算子优化、prefill 与 decode 调度及量化
快手 AI Infra 一面面经:围绕 Attention 重构与模型部署追问,考察 Triton 算子、profile 与 Roofline 分析、prefill 与 decode 调度、线性注意力,以及 AWQ 与 W8A16。